헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 에이프리카, LLMOps 플랫폼으로 엔터프라이즈 LLM 구축

LLM 파인튜닝 기능, 프롬프트 관리 기능, 벡터데이터 관리 등을 순차적으로 지원 에이프리카가 6일 LLMOps 플랫폼을 바탕으로 엔터프라이즈 LLM 시장에 본격적으로 진출한다고 밝혔다. 챗GPT의 등장으로 생성형 인공지능(AI)이 확산되면서, 기업들은 물론 공공에서도 초거대언어모델(LLM)을 도입하려는 시도가 늘어나고 있다. 대규모 데이터셋으로 훈련한 수천억 개의 매개변수를 가진 LLM을 도입하여 활용하기 위한 방안으로 LLMOps가 주목받고 있다. 일반적인 MLOps가 하나의 AI 모델을 개발하고 최적화해 서비스를 제공하는 방법론이라면, LLMOps는 이를 LLM에 적용해 기업의 내부 보안 정보 유출 방지와 같은 특정 요구에 맞는 LLM 선정 및 학습, 배포 등 운영을 위한 사이클을 통합 관리하는 체계다. 따라서 이 LLMOps를 효과적으로 구현하기 위해서는 MLOps와 LLM에 대한 기술과 경험이 필수적이다. 에이프리카는 이미 2019년부터 MLOps 플랫폼 소프트웨어 '치타'를 개발해 경찰청, 광주과학기술원, 현대글로비스 등 주요 공공기관 및 기업에 공급함으로써 AI 모델 개발에 필요한 데이터 관리부터 모델 개발, 배포와 HPC 인프라 운영까지 전 과

서재창 기자

2024-02-06 13:41

일반뉴스 마키나락스, 2년 연속 ‘코리아 AI 스타트업 100’ 선정

산업 특화 AI 스타트업 마키나락스가 '코리아 AI 스타트업 100' AI 솔루션·플랫폼 분야에 2년 연속 선정됐다고 21일 밝혔다. 코리아 AI 스타트업 100은 AI 혁신 생태계의 선진화를 조성해 국가 경쟁력 제고에 기여할 스타트업을 발굴하기 위한 프로젝트로 2021년부터 매년 100개 기업을 선정하고 있다. 카이스트와 KT경제경영연구소가 공동 개발한 평가 모델에 따라 ▲ 시장의 규모 및 확장성 ▲ 기업가치 및 매출 ▲ AI 인력 전문성 ▲ AI 기술 및 제품 등 정량 지표와 지속가능성, 사회적 문제 해결 등 정성 지표를 종합적으로 평가한다. 윤성호 대표는 "이상탐지, 예측, 조합최적화에 특화된 AI 기술로 산업의 문제를 해결해온 마키나락스의 기술력을 인정받아 영광"이라며 "마키나락스가 자체 개발한 MLOps 플랫폼 '런웨이'로 기업들이 빠르고 쉽게 머신러닝 모델을 개발-배포-운영하며 실질적인 비즈니스 가치를 창출하는 데 기여할 것"이라고 소감을 전했다. 마키나락스는 반도체, 에너지, 자동차 등 다양한 제조 및 산업 AI 프로젝트에서 고성능 ML 모델을 개발하고 운영한 경험을 바탕으로 엔터프라이즈 MLOps 플랫폼 런웨이를 개발했다. 클라우드와 도메인에

이창현 기자

2022-10-21 12:28